Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google（アメリカ合衆国）は、AIの脅威に対応するため「Model Armor」という新しいソリューションを発表した。これはプロンプトインジェクションやジェイルブレイクなどのリスクを軽減し、AIの安全性を高めることを目的としている。API統合やGoogleのサービスとの連携を通じて、開発者が容易に利用できるように設計されている。

Apigeeを利用する組織は、Model Armorとの統合により、AIインタラクションのセキュリティを強化できる。既存のAPIゲートウェイ機能に加え、Model Armorはプロンプトやレスポンスのスクリーニングを可能にし、AIアプリケーションの安全性とコンプライアンスを保証する。

Model Armorには、プロンプトインジェクションとジェイルブレイクの検出、機密データの保護、悪意のあるURLの検出、有害コンテンツのフィルタリング、ドキュメントのスクリーニングなど、多岐にわたる機能が備わっている。これらの機能は、Google Cloud上だけでなく、他のクラウドプロバイダーやプラットフォームでも利用可能である。

利用方法は、Google CloudコンソールでModel Armor APIを有効にし、必要な設定を行うことで、Apigeeと連携させることができる。これにより、AIアプリケーションは、Model Armorを通じてリアルタイムで保護される。また、検出結果はSecurity Command Centerで確認可能であり、管理アクティビティやサニタイズオペレーションはCloud Loggingで記録される。